Extreme Meta-Classification for Large-Scale Zero-Shot Retrieval
大规模零样本检索的极端元分类框架
🧭 极端分类 · 零样本检索元分类 ★ 深度解读
Microsoft Research, Bengaluru, India · Microsoft, Redmond, USA · Indian Institute of Technology Delhi, India
提出 EMMETT 元分类框架，为未见过的物品动态合成分类器，实现零样本检索精度最高 15% 提升，线上 CTR 增益 4.2%
📌 工作参考价值（4 点）
- 冷启动物品快速向量化：借鉴 IRENE 的“选择已有分类器→元分类器生成”流水线，新商品无需重训模型，只需用 ANNS 检索少量相似商品的分类器（如 K=3），经单层 Transformer 融合即可上线，延迟仅毫秒级。
- 训练策略冻结基座：冻结预训练的编码器和已知物品分类器，仅训练轻量生成器，避免过拟合，使新零样本泛化更鲁棒；业务中可将商品 embedding 和分类器视为固定模块，新增物品只更新生成器。
- 损失函数设计：训练时用邻居分类器替代物品自身分类器模拟零样本，加权二元交叉熵强调正样本，该思路可直接迁移到推荐召回或广告匹配的冷启动物品表示学习。
- 工程化推理解耦：分类器选择（ANNS）与元分类器生成（单层 Transformer）分离，新物品入池仅需一次生成器前向和索引插入，适合大规模、频繁更新的广告或商品推荐系统。